When History Misleads: Asymmetric Margin Supervision for Instruction-Guided LLM Generative Recommendation
当历史误导：指令引导LLM生成式推荐的非对称边际监督
🧭 生成式推荐 · 指令跟随与历史纠偏 ★ 深度解读
Duke University · Meta
提出AIMS，把单条历史删除效应转化为请求特定的反事实排序边际目标，用非对称辅助损失在完整历史上训练
📌 工作参考价值（4 点）
- 在电商/搜索的指令引导生成式推荐中，用户当前 query 与历史行为冲突常见（如“素食快手菜” vs 历史“红烧肉”）。可以离线用冻结模型评估删除单个历史事件对目标物品分数和 target–competitor margin 的影响，只保留同时提升两者的删除，把对应 margin 作为训练目标；训练仍用完整历史，推理零额外开销，适合大规模工业系统。
- 非对称梯度路由值得借鉴：辅助排序损失中把目标物品分数 detach，梯度只回传竞争者分数。这避免与 CE 对目标分数的直接监督冲突，能更干净地压低边界竞争者而不损害目标，可复用到 pairwise/ranking loss 设计。
- 做历史去噪或特征归因时，不能只看 influence 或 target uplift。本文证明无标签的 prediction sensitivity 与目标 support 几乎不相关，且 target uplift 高可能 competitor uplift 更高。实际应使用有标签的离线 margin 校验筛选干预，而不是仅依赖敏感度或单边 uplift。
- 简单 history dropout 不能复现 AIMS 的收益，说明“忽略冲突历史”不是把历史随机丢掉的等价做法。在冲突请求上增益更大，且 AIMS 选择的删除优先移除违反当前约束的历史事件，这提示可以显式构造约束冲突样本并用 margin 监督来纠正。